OpenAI, créateur de ChatGPT, dans le viseur de l’agence de protection des consommateurs

L’intelligence artificielle (IA) suscite beaucoup d’interrogations. L’agence américaine de protection des consommateurs, la FTC, qui fait aussi office d’autorité de la concurrence, a envoyé à OpenAI, créatrice de l’interface ChatGPT, une longue liste d’éléments qu’elle souhaite obtenir de la start-up de San Francisco, selon un document publié par le Washington Post, une procédure classique préalable à d’éventuelles poursuites ou un possible accord amiable.

La FTC s’intéresse notamment à la sécurisation des données personnelles utilisées par la plate-forme. OpenAI a reconnu qu’une faille technique avait entraîné, fin mars, la divulgation d’informations relatives à certains utilisateurs de ses services, principalement leur adresse électronique et une partie de leurs données bancaires.

Par ailleurs, les demandes de la FTC font référence à des plaintes d’usagers, selon lesquels les modèles de langage d’OpenAI, dont fait partie ChatGPT, ont généré des réponses « fausses, trompeuses, méprisantes ou nocives » concernant des individus.

Lire aussi : Article réservé à nos abonnés Intelligence artificielle : « Sam Altman, l’entrepreneur qui ravive le messianisme technologique »

La FTC interroge donc également OpenAI sur les dispositions prises pour prévenir la génération de contenu erroné et fausses informations par l’interface d’IA dite générative, c’est-à-dire capable de produire des réponses complètes à tout type de demande en langage courant.

« Divulgation d’informations sensibles »

L’agence de protection des consommateurs a déjà indiqué suivre de près le développement de l’IA générative, qui passionne et inquiète tout à la fois depuis le lancement de ChatGPT en novembre dernier.

Lire aussi : Article réservé à nos abonnés Un nouveau défi : rendre détectables les contenus générés par des intelligences artificielles

Le patron d’OpenAI, Sam Altman, a dit jeudi regretter que l’ouverture de cette enquête ait été divulguée dans la presse, ce qui « n’instaure pas la confiance ». L’entreprise travaillera « bien entendu » avec la FTC, a-t-il assuré sur Twitter, ajoutant : « Il est très important pour nous que notre technologie soit sûre et en faveur des utilisateurs, et nous sommes convaincus que nous respectons la loi. »

« Nous avons eu vent de signalements relatifs à la divulgation d’informations sensibles concernant une personne alors que la demande a été formulée par quelqu’un d’autre », a déclaré jeudi la présidente de la FTC, Lina Khan, lors d’une audition au Congrès. Elle a également fait état de « déclarations diffamatoires, complètement fausses », qui auraient été produites par des interfaces d’intelligence artificielle générative. « C’est ce type de tromperie qui nous inquiète. »

Côté concurrence, M^me Khan a déjà indiqué que son agence suivait de près la structuration de ce secteur pour éviter que des entreprises déjà établies ne brident la concurrence.

Lire aussi : Article réservé à nos abonnés « Le modèle économique de l’intelligence artificielle définira l’avenir du secteur »

Le Monde avec AFP